Използването на AI изображения от Тръмп разширява нови граници, като допълнително подкопава общественото доверие, казват експерти

ЛОС АНДЖЕЛИС (AP) — Администрацията на Тръмп не се отклони от шерването на изображения, генерирани от AI онлайн, възприемайки анимационни изображения и мемета и ги разпространява в формалните канали на Белия дом.

Но редактирано — и реалистично — изображение на юриста по цивилен права Некима Леви Армстронг в сълзи след арестуването поражда нови паники за това по какъв начин администрацията размива границите сред това, което е същинско и това, което е подправено.

Акаунтът на министъра на вътрешната сигурност Кристи Ноем разгласява истинското изображение от ареста на Леви Армстронг, преди формалният акаунт в Белия дом да разгласява променено изображение, което демонстрира, че тя плаче. Подправената фотография е част от потоп от редактирани с AI изображения, които се споделят в целия политически набор след съдбовните стрелби по Рене Гуд и Алекс Прети от чиновници на граничния патрул на Съединени американски щати в Минеаполис.

Въпреки това, потреблението на изкуствен интелект от Белия дом обезпокои специалистите по дезинформация, които се притесняват, че разпространяването на генерирани или редактирани от AI изображения подкопава публичното усещане на истината и сее съмнение.

В отговор на рецензиите за редактираното изображение на Леви Армстронг, чиновници на Белия дом удвоиха обявата, като заместник-директорът по връзките Каелан Дор написа на X, че „ мемата ще продължат “. Заместник-прессекретарят на Белия дом Абигейл Джаксън също показа обява, осмиваща рецензиите.

Дейвид Ранд, професор по осведомителни науки в университета Корнел, споделя, че наричането на промененото изображение мем " сигурно наподобява като опит да го показват като смешка или хумористична обява, като техните предходни карикатури. Това евентуално има за цел да ги защищити от рецензии за издание на манипулирани медии. " Той сподели, че задачата на шерването на промененото изображение на ареста наподобява „ доста по-двусмислена “ от карикатурните изображения, които администрацията е споделяла в предишното.

Мемете постоянно са носили многослойни известия, които са занимателни или информативни за хора, които ги схващат, само че неразбираеми за външни лица. Подобрените с изкуствен интелект или редактирани изображения са единствено най-новият инструмент, който Белият дом употребява, с цел да ангажира сегмента от базата на Тръмп, който прекарва доста време онлайн, сподели Зак Хенри, републикански съветник по връзки, който основа Total Virality, маркетингова компания за въздействие.

„ Хората, които са дефинитивно онлайн, ще го видят и неотложно ще го разпознаят като мем “, сподели той. „ Вашите баби и дядовци може да го видят и да не схванат мема, само че защото наподобява същински, ги кара да питат децата или внуците си за него. “

Още по-добре, в случай че провокира яростна реакция, която му оказва помощ да стане вирусен, сподели Хенри, който като цяло похвали работата на екипа на обществените медии на Белия дом.

Създаването и разпространяването на изменени изображения, изключително когато се споделят от достоверни източници, „ кристализира визия за протичащото се, вместо да покаже какво в действителност се случва “, сподели Майкъл А. Спайкс, професор в Северозападния университет и откривател на медийната просветеност.

„ Правителството би трябвало да бъде място, където можете да се доверите на информацията, където можете да кажете, че е точна, тъй като те носят отговорност да го създадат “, сподели той. " Споделянето на подобен тип наличие и основаването на подобен тип наличие... това подкопава доверието - макар че постоянно съм скептично надъхан към термина доверие - само че доверието, което би трябвало да имаме в нашето федерално държавно управление, с цел да ни даде точна, тествана информация. Това е същинска загуба и в действителност доста ме тревожи. "

Спайкс сподели, че към този момент вижда „ институционалните рецесии “ към недоверието в новинарските организации и висшето обучение и счита, че това държание от формалните канали разпалва тези проблеми.

Рамеш Шринивасан, професор в UCLA и хазаин на подкаста Utopias, сподели, че доста хора в този момент се питат къде могат да се извърнат за „ достоверна информация “. „ Системите с изкуствен интелект единствено ще изострят, засилят и ускорят тези проблеми с неналичието на доверие, неналичието даже на схващане какво може да се смята за действителност, истина или доказателство “, сподели той.

Сринивасан сподели, че счита, че Белият дом и други длъжностни лица, споделящи наличие, генерирано от AI, освен приканват елементарните хора да продължат да разгласяват сходно наличие, само че също по този начин дават позволение на други, които са на позиции с доверие и власт, като политици, да споделят немаркирано синтетично наличие. Той добави, че като се има поради, че обществените медийни платформи са склонни да „ алгоритмично привилегироват “ рисково и подмолно наличие – което инструментите за генериране на AI могат да основават с лекост – „ имаме огромен, огромен набор от провокации пред нас “.

Поток от генерирани от AI видеоклипове, свързани с имиграционните и митническите дейности, митинги и взаимоотношения с жители, към този момент се популяризира в обществените медии. След като Рене Гуд беше убита от чиновник на ICE, до момента в който беше в колата си, няколко видеоклипа, генерирани от AI, започнаха да циркулират на дами, които се отдалечаваха от чиновници на ICE, които им споделиха да спрат. Има и доста изфабрикувани видеоклипове, които циркулират на имиграционни набези и на хора, които се изправят против чиновници на ICE, като постоянно им крещят или хвърлят храна в лицата им.

Джеръми Караско, основател на наличие, който се специализира в медийната просветеност и развенчаването на вирусни видеоклипове с изкуствен интелект, сподели, че по-голямата част от тези видеоклипове евентуално идват от сметки, които „ отглеждат ангажираност “ или желаят да извлекат облага от кликвания посредством генериране на наличие с известни основни думи и думи за търсене като ICE. Но той също по този начин сподели, че видеоклиповете се гледат от хора, които се опълчват на ICE и DHS и може да ги гледат като „ почитател фикшън “ или да вземат участие в „ пожелателно мислене “, надявайки се, че виждат същинска реакция против организациите и техните чиновници.

Все отново Караско също по този начин има вяра, че множеството фенове не могат да схванат дали това, което гледат, е подправено, и задава въпроса дали ще знаят „ какво е същинско или не, когато в действителност има значение, да вземем за пример когато залозите са доста по-високи. “

Дори когато има явни признаци на генериране на AI, като улични знаци с глупости или други явни неточности, единствено в „ най-хубавия случай “ фенът би бил задоволително схваща или обръща задоволително внимание, с цел да записва потреблението на AI.

Този въпрос, несъмнено, не се лимитира до вести към имиграционните ограничения и митингите. Изфабрикувани и неправилно показани изображения след залавянето на сваления венецуелски водач Николас Мадуро избухнаха онлайн по-рано този месец. Експерти, в това число Караско, считат, че разпространяването на политическо наличие, генерирано от изкуствен интелект, ще става все по-често срещано.

Караско има вяра, че необятното внедряване на система за воден знак, която вгражда информация за произхода на част от медия в нейния пласт метаданни, може да бъде стъпка към решение. Коалицията за генезис и достоверност на наличието е създала такава система, само че Караско не счита, че тя ще бъде необятно призната най-малко още една година.

„ Сега това ще бъде проблем вечно “, сподели той. Не мисля, че хората схващат какъв брой неприятно е това.

__

Авторите на Associated Press Джонатан Дж. Купър във Финикс и Барбара Ортутей в Сан Франциско способстваха за този отчет.